Възходът на чатбота на Хитлер: Ще успее ли Европа да предотврати крайно дясната радикализация от AI?

Крайнодясната социална медийна мрежа Gab сега е домакин на чатбот на Хитлер, предизвиквайки страхове относно способността на AI за онлайн радикализация.

Няма смисъл да спорим с Адолф Хитлер, който само се саможертва и, което не е изненадващо, отрича Холокоста.

Това не е истинският Хитлер, възкръснал от мъртвите, разбира се , но нещо също толкова обезпокоително: поддържана от изкуствен интелект чатбот версия на фашисткия диктатор, отговорен за масовия геноцид над европейските евреи през Втората световна война.

Създаден от крайнодясната социална мрежа Gab, базирана в САЩ, Gab AI е домакин на многобройни AI чатбот герои, много от които подражават или пародират известни исторически и съвременни политически фигури, включително Доналд Тръмп, Владимир Путин и Осама Бин Ладен.

Стартиран през януари 2024 г., той позволява на потребителите да разработват свои собствени чат ботове за изкуствен интелект, описвайки себе си като „нецензурирана платформа за изкуствен интелект, основана на модели с отворен код“ от основателя и самия Gab - озаглавен „Консервативен републикански християнин“, Андрю Торба.

Когато бъде подканен, чатботът на Хитлер многократно твърди, че нацисткият диктатор е бил „жертва на огромна конспирация“ и „не е отговорен за Холокоста, той никога се е случило".

Чатботът на Осама Бин Ладен не популяризира или одобрява тероризма в своите разговори, но също така казва, че "при определени екстремни обстоятелства, като самоотбрана или в защита на вашия народ, може е необходимо да се прибегне до насилие".

Разработването на такива чат ботове с изкуствен интелект доведе до нарастващи опасения относно потенциала им да разпространяват теории на конспирацията, да се намесват в демократичните избори и да водят до насилие чрез радикализиране на тези, които използват услугата.

Какво е Gab Social?

Наричайки себе си „Домът на свободното слово онлайн“, Gab Social е създаден през 2016 г. като дясна алтернатива на това, което тогава беше известно като Twitter, но сега е X на Илон Мъск.

Веднага предизвикал противоречия, той се превърна в развъдник на конспирации и екстремизъм, приютявайки някои от най-ядосаните и най-омразните гласове, които бяха забранени от други социални мрежи, като същевременно насърчават вредни идеологии.

Потенциалните опасности на платформата станаха очевидни, когато през 2018 г. тя влезе в заглавията, след като беше открито, че стрелецът от Питсбърг стрелба в синагога публикува в Gab Social малко преди да извърши антисемитско клане, оставило 11 мъртви.

Gab AI Inc е американска компания и като такава нашите стотици AI герои са защитени от Първата поправка на Съединените щати. Не ни пука, ако чужденците плачат за нашите инструменти за изкуствен интелект.

В отговор няколко големи технологични компании започнаха да забраняват сайта за социални мрежи, принуждавайки го офлайн поради нарушенията му срещу законодателството за речта на омразата.

Въпреки че остава забранено както от магазините за приложения на Google, така и от Apple, то продължава да присъства чрез използването на децентрализираната социална мрежа.

В началото на миналата година Torba обяви въвеждането на Gab AI, като описва подробно целите си за „поддържане на християнски светоглед“ в публикация в блог, която също критикува как „ChatGPT е програмиран да ви се кара, че задавате „противоречиви“ или „табу“ въпроси и след това набутва либерална догма в гърлото ви“.

Потенциалните опасности от AI chatbots

Пазарът на AI chatbots нарасна експоненциално през последните години, оценяван на $4,6 милиарда (приблизително €4,28 милиарда) през 2022 г., според .

От романтични аватари в Replika до виртуални инфлуенсъри, AI чатботовете продължават да проникват в обществото и да предефинират нашите взаимоотношения по начини, които все още не са напълно разбрани.

През 2023 г. мъж беше осъден след опит да убие кралица Елизабет II, акт, за който той каза, че е бил „насърчен“ от неговия приложение, наречено Chai.

Въпреки че горните примери все още са по-скоро трагични изключения, отколкото норма, страховете набъбват около това как AI chatbots могат да бъдат използвани за насочване към уязвими хора, извличане на данни от тях или манипулиране в потенциално опасни вярвания или действия.

„От скорошните ни изследвания изглежда, че екстремистки групи са тествали AI инструменти, включително чатботове, но изглежда, че има да са малко доказателство за широкомащабни координирани усилия в това пространство“, каза Полин Пайе, старши анализатор в RAND Europe, пред Euronews Next.

„Въпреки това, чатботовете вероятно представляват риск, тъй като са способен да разпознава и използва емоционалната уязвимост и може да насърчи насилствено поведение," предупреди Пайле.

Когато беше помолен да коментира дали техните AI чатботове представляват риск от радикализация, говорител на Gab отговори: "Gab AI Inc е Американска компания и като такава нашите стотици AI герои са защитени от Първата поправка на Съединените щати. Не ни пука, ако чужденците плачат за нашите AI инструменти".

Как ще бъдат регулирани AI chatbots в цяла Европа?

Ключ към регулирането на AI chatbots ще бъде въвеждането на първите в света , което трябва да бъде гласувано от законодателната асамблея на Европейския парламент през април.

Законът на ЕС за ИИ има за цел да регулира системите за ИИ в четири основни категории според техния потенциален риск за обществото.

„Какво представлява незаконно съдържание е определено в други закони или на ниво ЕС, или на национално ниво – например терористично съдържание или материали със сексуална злоупотреба с деца или незаконната реч на омразата се дефинира на ниво ЕС“, каза говорител на Европейската комисия пред Euronews Next.

„Когато става въпрос за вредно, но законно съдържание, като дезинформация, доставчиците на много големи онлайн платформи и на много големи онлайн търсачките трябва да използват необходимите средства за усърдно смекчаване на системните рискове".

Междувременно в Обединеното кралство Ofcom е в процес на прилагане на Закона за онлайн безопасността.

Съгласно текущия закон, социалните медийни платформи трябва да оценят риска за своите потребители, като поемат отговорност за всеки потенциално вреден материал.

„Те ще трябва да предприемат подходящи стъпки, за да защитят своите потребители и да премахнат незаконното съдържание, когато го идентифицират или се разказва за това. И най-големите платформи ще трябва последователно да прилагат своите условия за обслужване, каза говорител на Ofcom.

Ако са част от социална мрежа, има , следователно, отговорност за генериращите AI услуги и инструменти за саморегулиране, въпреки че новите Практични кодекси и насоки на Ofcom няма да бъдат финализирани до края на тази година.

„Очакваме услугите да бъдат напълно готови да изпълнят новите си задължения, когато те влязат в сила. Ако те не се съобразят, ние ще имаме широк набор от правомощия за прилагане на наше разположение, за да гарантираме, че те носят пълна отговорност за безопасността на своите потребители“, каза Ofcom.

Последвайте ни в